Web Survey Bibliography
In Web surveys, rating scales measuring the respondents’ attitudes and self-descriptions by means of a series of related statements are commonly presented in grid (or matrix) questions. Despite the benefits of displaying multiple rating scale items neatly arranged and supposedly easy to complete on a single screen, respondents are often tempted to rely on cognitive shortcuts in order to reduce the extent of cognitive and navigational effort required to answer a set of rating scale items. In order to minimize this risk of cognitive shortcuts resulting in satisfying rather than optimal answers, respondents have to be motivated to spend extra time and effort on the attentive and careful processing of rating scales. A wide range of visual and dynamic features are available in interactive Web surveys allowing for visual enhancement and greater interactivity in the presentation of survey questions. To date, however, only a few studies have systematically examined new rating scale designs using data input methods other than conventional radio buttons. In the present study, two different rating scales were designed using drag-and-drop as a more interactive data input method: Respondents have to drag the response options towards the rating scale items (‘drag-response’), or in the reverse direction, the rating scale items towards the response options (‘drag-item’). In both drag-and-drop rating scales, the visual highlighting of the items and response options as well as the dynamic strengthening of the link between these key components are aimed at encouraging the respondents to process a rating scale more attentively and carefully. The effectiveness of the drag-and-drop rating scales in preventing the respondents’ susceptibility to cognitive shortcuts is assessed on the basis of five systematic response tendencies that are typically accompanied by rating scales, i.e., careless, nondifferentiated, acquiescent, and extreme responding as well as the respondents’ systematic tendency to select one of the first response options, so called primacy effects. Moreover, item missing data, response times, and respondent evaluation are examined. The findings of the present study revealed that although both drag-and-drop scales entail a higher level of respondent burden as indicated by an increase in item missing data and longer response times compared to conventional radio button scales, they promote the respondents’ attentiveness and carefulness towards the response task which is accompanied by the respondents’ reduced susceptibility to cognitive shortcuts in processing rating scales.
Ratingskalen zu Erfassung von Einstellungen und Persönlichkeitsmerkmalen des Befragten werden in Online-Befragungen bevorzugt in Form einer Matrixfrage dargestellt. Matrixfragen bieten zwar gewisse Vorzüge hinsichtlich der übersichtlichen Darstellung und einer vermeintlich einfachen Bearbeitung mehrerer Items. Gleichzeitig sind sie jedoch auch anfälliger für systematische Antworttendenzen, die zur Verringerung der Datenqualität führen können. Um dem Risiko derartiger Abkürzungsstrategien entgegenzuwirken, müssen die Befragten zur aufmerksamen und sorgfältigen Bearbeitung von Ratingskalen motiviert werden. Online-Befragungen ermöglichen den Einsatz visueller und interaktiver Elemente zur optischen Aufwertung einzelner Fragen und zur Steigung der Interaktivität des Befragungsprozesses insgesamt. Bislang gibt es jedoch nur wenige Studien, die den Einsatz solcher Gestaltungselemente in Ratingskalen untersuchen. Vor diesem Hintergrund werden im Rahmen der vorliegenden Studie zwei unterschiedliche Drag-and-Drop-Ratingskalen konzipiert: In der Drag-Response-Skala sind die Befragten aufgefordert, mit dem Mauszeiger eine ausgewählte Antwortmöglichkeit zum jeweiligen Item zu ziehen, wohingegen in der Drag-Item-Skala das jeweilige Item zur ausgewählten Antwortmöglichkeit gezogen wird. Durch den Einsatz der Drag-and-Drop Technik soll die Aufmerksamkeit gezielt auf die Items und Antwortmöglichkeiten gelenkt sowie die Verbindung zwischen dem jeweiligen Item und der ausgewählten Antwortmöglichkeit verstärkt werden. Zur Überprüfung der Effektivität der beiden Drag-and-Drop-Ratingskalen hinsichtlich einer aufmerksameren und sorgfältigeren Bearbeitung und letztlich einer Vorbeugung von systematischen Antworttendenzen werden mehrere Indikatoren der Datenqualität herangezogen, darunter ‚Careless Responding‘, ‚Nondifferentiation‘, ‚Acquiescence‘, ‚Extremity‘ sowie ‚Primacy Effekte‘. Darüber hinaus werden das Ausmaß fehlender Werte, die Antwortzeiten und Bewertungen der Befragten ausgewertet. Die Ergebnisse der vorliegenden Untersuchung zeigen, dass die Drag-and-Drop-Ratingskalen zwar mit einem gesteigerten Aufwand für Kognition und Navigation einhergehen, welcher zu mehr fehlenden Werten und längeren Antwortzeiten führt. Gleichzeitig jedoch werden die Befragten zu einem aufmerksameren und sorgfältigeren Antwortverhalten motiviert, was wiederum systematischen Antworttendenzen entgegenwirkt.
Web survey bibliography (20)
- Retrospective Measurement of Students’ Extracurricular Activities with a Self-administered Calendar...; 2016; Furthmueller, P.
- A multi-group analysis of online survey respondent data quality: Comparing a regular USA consumer panel...; 2016; Golden, L.; Albaum, G.; Roster, C. A.; Smith, S. M.
- Investigating respondent multitasking in web surveys using paradata; 2016; Sendelbah, A.; Vehovar, V.; Slavec, A.; Petrovcic, A.
- Rating Scales in Web Surveys: A Test of New Drag-and-Drop Rating Procedures; 2015; Kunz, T.
- Relative Mode Effects on Data Quality in Mixed-Mode Surveys by an Instrumental Variable; 2013; Vannieuwenhuyze, J. T. A., Revilla, M.
- Effects of Response Format on Measurement of Readership; 2013; Thomas, R. K., Cobb, C. L., Baim, J.
- Ebook readings jumps, print book reading declines; 2012; Rainie, L., Duggan, M.
- Using e-surveys to access the views of football fans within online communities; 2012; Gibbons, T., Nuttall, D.
- Exploring New Pathways to Survey Recruitment; 2012; Bilgram, V., Stadler, D.Jawecki, G.
- Cross-country Comparisons: Effects of Scale Type and Response Style Differences; 2011; Thomas, R. K.
- Separation of selection bias and mode effect in mixed-mode survey – Application to the face-to...; 2011; Bayart, C., Bonnel, P.
- Movie Mobile Polls: Does Survey Mode Make a Difference?; 2010; Williams, Do.
- 3 screen measurement: Soccer World Cup 2010; 2010; Conry, S., Benezra, K., Singh, S.
- Communicating Disclosure Risk in Informed Consent Statements; 2010; Singer, E., Couper, M. P.
- Does Providing a Choice of Survey Modes Influence Response?; 2010; Lesser, V. M., Newton, L., Yang, D.
- Can a professional questionnaire layout make up for a boring topic? The mediating role of topic interest...; 2010; Keusch, F., Mayerhofer, W., Jungreithmaier, S., Weilbuchner, N., Fuehrer, R., Kling, H.
- Designing Culturally Neutral Storyboard: A Case Study of Designing an Online Survey with Storyboards; 2010; Koponen, T., Varsaluoma, J., Walsh, T.
- Continuous Measurement of Musically-Induced Emotion: A Web Experiment ; 2009; Egermann, H., Nagel, F., Altenmueller, E., Kopiez, R.
- E-epidemiology : Adapting epidemiological methods for the 21st century; 2009; Bexelius, C.
- The Use of Online Methodologies in Data Collection for Gambling and Gaming Addictions; 2009; Griffiths, M. D.
- Usability Testing of Web Data Collection Instruments; 2002; Thalji, L., Antunes, M. J., Wiebe, E. F.